Mem-π: Adaptive Memory through Learning When and What to Generate
Mem-π:通过学习何时生成与生成什么实现自适应记忆
🧭 Agent记忆系统 · 生成式记忆 ★ 深度解读
ServiceNow AI Research · Mila – Quebec AI Institute · Université de Montréal · Polytechnique Montréal · McGill University
提出生成式记忆框架Mem-π,让记忆模型自主决定何时生成指导与生成什么内容,在多种Agent基准上平均相对提升超20%
📌 工作参考价值(4 点)
- 记忆模块与下游Agent解耦:使用一个独立的小模型(如7B)作为可训练的生成式记忆策略,专注产生任务相关的文本提示,可与任何更强的下游Agent配合,方便工程集成和迭代。
- 离线蒸馏 + 在线自适应两阶段训练:先用历史交互数据做SFT初始化,再利用环境reward做RL微调(GRPO),适合积累了大量交互轨迹的电商推荐或Agent场景,能够将粗经验转化为精确的策略。
- 结构化rollout与决策-内容解耦:强制每组采样包含abstain和generate分支,将优势信号分解为决策优势和内容优势,分别驱动'是否生成'和'生成什么'的学习,避免内容梯度淹没决策信号,可迁移到需要模型主动决定是否执行某个动作的场景。
- 自适应abstention提升效率与鲁棒性:模型在任务简单时主动[ABSTAIN],避免注入冗余或误导信息;在困难任务上才生成指导,既减少token消耗(实验显示token用量降低31%),又防止检索记忆固有的“复制偏差”,对实时推理的成本敏感型电商Agent很有参考价值。